पाठ्यक्रम: GS3/साइबर सुरक्षा
समाचारों में
- हाल ही में शोधकर्ताओं ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (AI) की भ्रांतिजन्य त्रुटियाँ साइबर सुरक्षा के क्षेत्र में एक नए खतरे के रूप में उभर रही हैं।
कृत्रिम बुद्धिमत्ता (AI) की भ्रांतिजन्य त्रुटियाँ
- भ्रांतिजन्य त्रुटि वह स्थिति है, जिसमें वृहद भाषा मॉडल (LLM), विशेषकर जनरेटिव AI चैटबॉट अथवा कंप्यूटर विज़न आधारित उपकरण, ऐसे पैटर्न, वस्तुओं अथवा तथ्यों का निर्माण या पहचान कर लेते हैं जो वास्तव में अस्तित्व में नहीं होते अथवा मानव पर्यवेक्षकों के लिए प्रत्यक्ष नहीं होते।
- AI की भ्रांतिजन्य त्रुटियाँ अब केवल विश्वसनीयता से जुड़ी समस्या न रहकर साइबर सुरक्षा के लिए गंभीर खतरा बन गई हैं।
- साइबर अपराधी फैंटम स्क्वाटिंग तथा हैलूस्क्वाटिंग जैसी तकनीकों का उपयोग कर इन पूर्वानुमेय त्रुटियों का लाभ उठाते हैं।
- इसके अंतर्गत वे फर्जी वेबसाइटों एवं दुर्भावनापूर्ण सॉफ्टवेयर पैकेजों का निर्माण करते हैं, जिनकी अनुशंसा AI द्वारा किए जाने की संभावना अधिक होती है।
- परिणामस्वरूप, इनका उपयोग फिशिंग हमलों, मैलवेयर के प्रसार तथा उपयोगकर्ताओं की संवेदनशील जानकारी की चोरी के लिए किया जाता है।
प्रमुख शब्दावली
- स्क्वाटिंग: स्क्वाटिंग एक साइबर अपराध तकनीक है, जिसमें हमलावर ऐसे नकली डोमेन नाम अथवा सॉफ्टवेयर पैकेज तैयार करते हैं, जो वास्तविक वेबसाइटों या सॉफ्टवेयर से अत्यधिक मिलते-जुलते प्रतीत होते हैं।
- इसके प्रमुख प्रकार निम्नलिखित हैं—
- टाइपोस्क्वाटिंग : गलत वर्तनी वाले वेबसाइट डोमेन बनाना।
- ब्रांड स्क्वाटिंग : किसी प्रसिद्ध ब्रांड की नकल करना।
- पैकेज स्क्वाटिंग : समान नाम वाले दुर्भावनापूर्ण सॉफ्टवेयर पैकेज तैयार करना।
- इन सभी तकनीकों का आधार मानवीय त्रुटि होता है।
- इसके प्रमुख प्रकार निम्नलिखित हैं—
- फैंटम स्क्वाटिंग : यह एक साइबर हमला है, जिसमें साइबर अपराधी AI की भ्रांतिजन्य त्रुटियों का लाभ उठाकर ऐसे फर्जी इंटरनेट डोमेन पंजीकृत करते हैं, जिन्हें वृहद भाषा मॉडल (LLMs) उपयोगकर्ताओं को गलत रूप से सुझाते हैं।
- ये डोमेन प्रायः वास्तविक वेबसाइटों, जैसे ग्राहक सेवा पोर्टल अथवा सहायता पृष्ठों , के समान दिखाई देते हैं।
- हमलावर इन अप्रयुक्त डोमेनों को पंजीकृत कर उन पर फिशिंग, मैलवेयर अथवा क्रेडेंशियल चोरी से संबंधित वेबसाइटें संचालित करते हैं।
- पारंपरिक फिशिंग के विपरीत, इसमें उपयोगकर्ता स्वयं AI की अनुशंसा पर विश्वास करके इन दुर्भावनापूर्ण वेबसाइटों तक पहुँच जाते हैं।
- हैलूस्क्वाटिंग : यह सॉफ्टवेयर आपूर्ति श्रृंखला पर आधारित एक साइबर हमला है।
- इसमें हमलावर AI आधारित कोडिंग सहायकों द्वारा अस्तित्वहीन सॉफ्टवेयर पैकेजों, लाइब्रेरी अथवा रिपॉजिटरी के नाम उत्पन्न करने की प्रवृत्ति का दुरुपयोग करते हैं।
- इसके बाद वे इन काल्पनिक किंतु विश्वसनीय प्रतीत होने वाले पैकेज नामों को पंजीकृत कर उनमें दुर्भावनापूर्ण कोड अपलोड कर देते हैं।
- डेवलपर AI द्वारा सुझाए गए इंस्टॉलेशन कमांड को बिना सत्यापन के कॉपी-पेस्ट कर देते हैं, जिसके परिणामस्वरूप इच्छित सॉफ्टवेयर के स्थान पर मैलवेयर उनके सिस्टम में स्थापित हो जाता है और वे उत्पन्न सुरक्षा जोखिम से अनभिज्ञ रहते हैं।
AI स्क्वाटिंग और प्रॉम्प्ट इंजेक्शन में अंतर
- फैंटम स्क्वाटिंग एवं हैलूस्क्वाटिंग जैसे AI स्क्वाटिंग हमले प्रॉम्प्ट इंजेक्शन से भिन्न होते हैं।
- ये हमले दुर्भावनापूर्ण प्रॉम्प्ट, जेलब्रेक तकनीकों अथवा AI मॉडल की कमजोरियों पर निर्भर नहीं होते।
- इसके स्थान पर, हमलावर बड़े भाषा मॉडलों (LLMs) की पूर्वानुमेय रूप से गलत डोमेन नामों अथवा सॉफ्टवेयर पैकेजों का निर्माण करने की अंतर्निहित प्रवृत्ति का लाभ उठाते हैं।
- यही कारण है कि ऐसे हमलों का बड़े पैमाने पर विस्तार संभव हो जाता है, क्योंकि उपयोगकर्ता केवल AI द्वारा सुझाई गई अनुशंसाओं का पालन करके ही प्रभावित हो सकते हैं, भले ही उन्होंने अभी तक किसी दुर्भावनापूर्ण सामग्री के साथ प्रत्यक्ष रूप से संपर्क न किया हो।
समाधान एवं निवारण के उपाय
- AI की भ्रांतिजन्य त्रुटियों को पूर्णतः समाप्त या पैच नहीं किया जा सकता, क्योंकि ये बड़े भाषा मॉडलों (LLMs) की उत्तर निर्माण प्रक्रिया की अंतर्निहित विशेषता हैं।
- जैसे-जैसे AI अधिक स्वायत्त होता जा रहा है, साइबर अपराधी AI द्वारा उत्पन्न काल्पनिक डोमेन नामों एवं सॉफ्टवेयर पैकेजों का दुरुपयोग कर सकते हैं, जिससे AI का व्यवहार स्वयं साइबर हमलों का एक नया माध्यम बनता जा रहा है।
- इसलिए, संस्थानों एवं उद्यमों को AI द्वारा सुझाए गए प्रत्येक लिंक, सॉफ्टवेयर पैकेज तथा बाहरी संसाधन का उपयोग करने से पूर्व उनका स्वतंत्र रूप से सत्यापन करना चाहिए।
स्रोत :BS
Previous article
कृषि क्षेत्र में महिला कृषकों का सशक्तिकरण
Next article
संक्षिप्त समाचार 18-07-2026
